Primer Estudio de Inteligencia Artificial Responsable

Un interesante estudio, y que según sus autores es el primero en el país, fue el presentado por el ESE Business School, a través de su Centro de Ética y Sostenibilidad Empresarial de la Universidad de Los Andes, en colaboración con PwC Chile, denominado Estudio «Inteligencia Artificial Responsable en empresas que operan en Chile».

Según indican en comunicado de prensa, «con el lanzamiento de este estudio, se busca fomentar el desarrollo de marcos éticos y regulatorios que faciliten la adopción responsable de la IA, apoyando a las empresas a innovar de manera segura y beneficiosa para la sociedad«.

Para lograr este objetivo, «la investigación, que se inspira en un análisis realizado por la empresa de consultoría a nivel internacional en 2018, revela datos significativos sobre la incorporación de la inteligencia artificial (IA) ética en las empresas chilenas (se tuvo como referencia el estudio Responsible AI Survey 2018 realizado por PwC en
Inglaterra, Estados Unidos, Japón e India).»

Metodología del estudio

Para obtener una radiografía actual de la responsabilidad en la utilización de la IA en las empresas que operan en Chile, la investigación se dividió en tres partes:
1. Nivel de adopción, áreas de implementación e inversión prevista en IA en la empresa de cada directivo encuestado.
2. Principales beneficios y riesgos asociados al uso de la IA y forma de identificación de estos últimos en cada una de las organizaciones de negocios.
3. Aplicación de principios éticos, políticas y prácticas de integridad en las empresas en que trabajan los altos ejecutivos consultados. Siendo esta sección la que concentró el grueso de la atención del estudio.

Algunos resultados

Considerando algunos elementos como el Tipo de estudio: cuantitativo; Universo de estudio: Miembros de directorios, gerentes generales /CEO, CTO, gerentes de áreas; Muestra: 643 encuestas respondidas:

Algunos principales resultados que arroja el estudio son:
• La adopción de la IA es todavía relativamente baja, aunque variada en las empresas. Únicamente 5% de ellas la ha integrado totalmente a sus actividades.
• Las empresas con mayor número de colaboradores (+ 1.000) son las que han efectuado una adopción mayor de IA.
• Los sectores de Tecnología e Información, Servicios Financieros y Profesionales, y Distribución y Comercio muestran mayores tasas de adopción de la IA.
• Las principales áreas de las organizaciones donde se ha implantado la IA corresponden a la gestión de datos (18%), servicio al cliente (15%), tecnología informática (12%), innovación (11%) y marketing y ventas (10%).

Riesgos de IA y ética

Es interesante observar otras conclusiones del estudio en área de riesgos y uso ético de la IA:

Los principales riesgos asociados al uso de la IA son: privacidad de la información y datos (24%), información falsa (22%), ciberseguridad (22%) y sesgos del modelo o algoritmo (22%).
• 67% afirma que en su empresa no hay un enfoque formal para la identificación de riesgos en el uso de la IA. Únicamente 13% sostiene que existen políticas y estrategias para hacer frente a los riesgos.
• 66% señala que no se tienen políticas respecto a la aplicación de principios éticos (33%) o no se poseen prácticas éticas ni principios formales (33%). Tan solo 9% afirma la existencia de un marco ético para el desarrollo de la IA en la organización.
• Los principales responsables de controlar el correcto uso de la IA en la empresa, a juicio de los entrevistados, debieran ser: compliance (29%), tecnología (20%), un área nueva (15%), innovación (10%) y riesgo (9%).

Cambios normativos

Llama la atención que considerando los cambios normativos respecto a ley de protección de datos personales y proyectos de ley presentados para regular la IA, aún existen entre los consultados grandes brechas.
Así tenemos que:

• 46% responde no tener una política de privacidad y 8% no saberlo. En contraste, 34% manifiesta seguir una estricta política de privacidad y 12% solo cifrar datos personales sensibles.
• 41% piensa que los límites éticos, en el uso de la IA, debe ser regulado por ley. 40% estima que debería hacerlo cada organización. 12% que correspondería ser efectuado por un organismo supra empresarial.

Por otro lado:

• 43% señala no tener considerado trabajar en información a los colaboradores sobre los impactos de la IA y la importancia de usarla de manera ética y responsable. 10% afirma que los colaboradores se encontrarían plenamente informados.
• 56% dice que no se ha considerado el sesgo de algoritmo en la organización y 20% no saberlo. Únicamente 6% asegura que sí y que se trata de un foco muy relevante.

Uso de IA según tipo de industria

Los patrones de respuestas según tipo de industria, mediante el uso de la técnica de escalamiento multidimensional, permiten deducir la existencia de cuatro grupos diferenciados, poseedores de las siguientes características:

o Grupo 1: los sectores de Agricultura y Recursos Naturales, Manufactura e Industria Pesada, Comercio y Distribución, Servicios Financieros y Profesionales, están interesados en adoptar la IA, al tiempo que muestran una preocupación ética sobre la privacidad de los datos que se manejan de sus clientes y por la regulación de la IA, inclusive por organismos supra empresariales.
o Grupo 2: el sector de la Tecnología e Información se destaca por estar dispuesto a regulaciones de privacidad provenientes de las mismas empresas.
o Grupo 3: El área de la Construcción e Inmobiliaria es la más reticente a adoptar la IA.
o Grupo 4: Los Servicios Sociales y Comunitarios / el Sector Público aparece como el área más interesada por los aspectos éticos de la IA, pero muestra desconocimiento de los sesgos y no ha trabajado en la capacitación de sus funcionarios

Inversiones previstas en IA próximos 12 meses

Finalmente, respecto a consultas relacionadas con inversiones en IA en las empresas en los próximos 12 meses, de concluye:

• 49% de quienes responden la encuesta declaran que hay inversión en IA prevista para los próximos 12 meses, en tanto 51% responde que no (23%) o no lo sabe (28%).
• Nuevamente, las empresas de mayor tamaño (número de colaboradores) son las que tendrían también mayor previsión de inversiones próximas en el rubro.
• El monto de esa posible inversión sería menor a US$ 100.000.- en el 46% de los casos, entre US$ 100.000.- y US$ 1.000.000.- en 26% y mayor a US$ 1.000.000.- en 12% de las respuestas afirmativas sobre inversión. 16% señala no saber el monto.

El estudio es posible descargar desde acá> informe inteligencia artificial